Sau một thời gian lâm bệnh, ông qua đời vào lúc 02:52, ngày 7 tháng 8 năm 2020 tại nhà riêng số 7/36/C1 Lý Nam Đế, phường Cửa Đông, quận Hoàn Kiếm, Hà Nội.[4] Theo Văn phòng Ban chấp hành Trung ương Đảng được biết, tang lễ dành cho nguyên Tổng bí thư Lê Khả Phiêu sẽ được tổ chức theo nghi thức Quốc tang trong hai ngày, 14 và 15 tháng 8 năm 2020. Lễ viếng của ông được tổ chức tại Nhà tang lễ quốc gia, số 5 Trần Thánh Tông, Hà Nội bắt đầu từ 08:00, ngày 14 tháng 8 năm 2020 đến 12:00, ngày 15 tháng 8 năm 2020. Lễ truy điệu được tổ chức vào 12:30, ngày 15 tháng 8 năm 2020 tại Nhà tang lễ quốc gia, số 5 Trần Thánh Tông, Hà Nội. Cùng thời gian này tại Hội trường Thống nhất tại Thành phố Hồ Chí Minh và Hội trường 25B, đường Quang Trung, Thành phố Thanh Hóa, tỉnh Thanh Hóa cũng tổ chức lễ viếng, lễ truy điệu nguyên Tổng bí thư Lê Khả Phiêu.[5]

Theo di nguyện của Lê Khả Phiêu, sau khi mất, ông muốn được rải tro cốt xuống ba dòng sông đã gắn liền kỉ niệm với cuộc đời ông nhưng do dịch bệnh COVID-19 diễn biến phức tạp nên gia đình cũng không muốn kéo dài thời gian tang lễ. Theo một người thân trong gia đình Lê Khả Phiêu chia sẻ, ba con sông đó là sông Mã, sông Hồng và sông Cửu Long. Vào 14:00 cùng ngày, linh cữu của ông được đưa về nghĩa trang Mai Dịch để an táng với khu vực là tại vị trí thứ tư (cạnh mộ Hoàng Quốc Việt và Lê Văn Lương), bên phải (từ cổng nghĩa trang hướng vào sân chính).